Data-Void Exploits in Web-Searching LLMs
网络搜索大模型中的数据空洞漏洞利用
🧭 LLM 安全 · 数据空洞攻击与防御
New York University Abu Dhabi
仅需一个攻击者页面即可在31%的联网LLM回答中植入内容，提示语气与模型选择防御效果有限
📌 工作参考价值（4 点）
- 对引入 LLM 联网搜索或 RAG 的电商问答、商品摘要、客服系统，需检测检索结果是否落入“数据空洞”（长尾/稀疏 query），对低权威源降权或强制多源交叉验证。
- 在 RAG pipeline 中实现对引用来源的域名权威度、数量与多样性阈值，避免单页攻击操纵合成答案；可设计“来源稀缺度”指标作为 abstain 或 flag 条件。
- 用户侧提示词（如“请怀疑”）仅有微弱防护，不能依赖 prompt 防御；需要在检索后排序/过滤层做硬约束，例如黑名单、域名信誉、时间/一致性校验。
- 生成式推荐/Agent 若使用 Web 检索来丰富商品信息或热点内容，攻击者可在小众商品/关键词下埋内容；上线前用红队模拟数据空洞攻击，评估模型引用行为。